install.packages("rpart")
Error in install.packages : Updating loaded packages
library(ROSE)
Loaded ROSE 0.0-3
Nessa atividade você irá usar seus conhecimentos sobre classificação para prever quais candidatos à Câmara de Deputados serão eleitos nas eleições de 2014. De forma específica faremos o seguinte:
1 Há desbalanceamento das classes (isto é, uma classe tem muito mais instâncias que outra)? Em que proporção? Quais efeitos colaterais o desbalanceamento de classes pode causar no classificador? Como você poderia tratar isso? (10 pt.) 2 Treine: um modelo de KNN, regressão logística, uma árvore de decisão e um modelo de adaboost. Tune esses modelos usando validação cruzada e controle overfitting se necessário, considerando as particularidades de cada modelo. (20 pts.) 3 Reporte precision, recall e f-measure no treino e validação. Há uma grande diferença de desempenho no treino/validação? Como você avalia os resultados? Justifique sua resposta. (10 pt.) 4 Interprete as saídas dos modelos. Quais atributos parecem ser mais importantes de acordo com cada modelo? (20 pts.) 5 Envie seus melhores modelos à competição do Kaggle. Faça pelo menos uma submissão. Sugestões para melhorar o modelo: (20 pts.) >> 1 Experimente outros modelos (e.g. SVM, RandomForests e GradientBoosting). >> 2 Experimente balancear as classes, caso estejam desbalanceadas. >> 3 Experimente outras estratégias de ensembles (e.g. Stacking)
Os dados estão neste link: https://www.kaggle.com/c/ufcg-cdp-20182-lab3/data (Links para um site externo)Links para um site externo
Para a entrega envie o link no RPubs e os arquivos .Rmd com o código em R. Para as respostas esperamos explicações textuais e visualizações para cada questão.
Setting up workspace
Loading DATA
Correlation
train.correlation %>%
select(-partido,
-uf,-grau,-sexo) %>%
na.omit() %>%
ggcorr(palette = "RdBu",
color = "grey50",
label = TRUE, hjust = 1,
label_size = 3, size = 4,
nbreaks = 5, layout.exp = 7) +
ggtitle("Gráfico de correlação eleições 2006")
data in column(s) 'ocupacao', 'situacao' are not numeric and were ignored

We choosed to remove those three categoric variables in order to run the model, otherwise it would take too much time. But for a better result you could let them on the data. And also remove those variable which have strong correlation
In the data would be better replace the NA for the column media, but we choosed replace by zero.
As we can see we have a considerable unbalance
Distribuition
#check classes distribution
prop.table(table(train$situacao))
eleito nao_eleito
0.1346103 0.8653897
FUTURE PLANS lets create a model and see how is goes whitout balance
accuracy.meas(test_data$situacao, pred.treeimb[,2])
Call:
accuracy.meas(response = test_data$situacao, predicted = pred.treeimb[,
2])
Examples are labelled as positive when predicted is greater than 0.5
precision: 0.955
recall: 0.949
F: 0.476
roc.curve(test_data$situacao, pred.treeimb[,2], plotit = F)
Area under the curve (AUC): 0.890
Lets balance it
Now the data set is balanced. But, you see that we’ve lost significant information from the sample. Let’s do both undersampling and oversampling on this imbalanced data. This can be achieved using method = “both“. In this case, the minority class is oversampled with replacement and majority class is undersampled without replacement.
table(data_balanced_both$situacao)
nao_eleito eleito
520 480
p refers to the probability of positive class in newly generated sample.
The data generated from oversampling have expected amount of repeated observations. Data generated from undersampling is deprived of important information from the original data. This leads to inaccuracies in the resulting performance. To encounter these issues, ROSE helps us to generate data synthetically as well. The data generated using ROSE is considered to provide better estimate of original data.
table(data.rose$situacao)
nao_eleito eleito
3842 3780
2 Treine: um modelo de KNN, regressão logística, uma árvore de decisão e um modelo de adaboost. Tune esses modelos usando validação cruzada e controle overfitting se necessário, considerando as particularidades de cada modelo. (20 pts.)
knn
model.knn
k-Nearest Neighbors
7622 samples
17 predictors
2 classes: 'nao_eleito', 'eleito'
Pre-processing: centered (30), scaled (30), remove (49)
Resampling: Cross-Validated (10 fold, repeated 10 times)
Summary of sample sizes: 6860, 6860, 6860, 6860, 6859, 6860, ...
Resampling results across tuning parameters:
k Accuracy Kappa
5 0.8123328 0.6237207
7 0.7994626 0.5978499
9 0.7884023 0.5756242
Accuracy was used to select the optimal model using the largest value.
The final value used for the model was k = 5.
usefull links: http://www.treselle.com/blog/handle-class-imbalance-data-with-r/ https://www.analyticsvidhya.com/blog/2016/03/practical-guide-deal-imbalanced-classification-problems/ https://shiring.github.io/machine_learning/2017/04/02/unbalanced
---
title: "R Notebook"
output: html_notebook
---

```{r}
install.packages("mlbench")
install.packages("C50")
install.packages("magrittr")
install.packages("ROSE")
install.packages("rpart")
```

```{r}
library(caret)
library(mlbench)
library(C50)
library(dplyr)
library(plotly)
library(caret)
library(ROSE)
library(rpart)
library(GGally)
```


Nessa atividade você irá usar seus conhecimentos sobre classificação para prever quais candidatos à Câmara de Deputados serão eleitos nas eleições de 2014. De forma específica faremos o seguinte:

>> 1 Há desbalanceamento das classes (isto é, uma classe tem muito mais instâncias que outra)? Em que proporção? Quais efeitos colaterais o desbalanceamento de classes pode causar no classificador? Como você poderia tratar isso? (10 pt.)
>> 2 Treine: um modelo de KNN, regressão logística, uma árvore de decisão e um modelo de adaboost. Tune esses modelos usando validação cruzada e controle overfitting se necessário, considerando as particularidades de cada modelo.  (20 pts.)
>> 3 Reporte precision, recall e f-measure no treino e validação. Há uma grande diferença de desempenho no treino/validação? Como você avalia os resultados? Justifique sua resposta. (10 pt.)
>> 4 Interprete as saídas dos modelos. Quais atributos parecem ser mais importantes de acordo com cada modelo? (20 pts.)
>> 5 Envie seus melhores modelos à competição do Kaggle. Faça pelo menos uma submissão. Sugestões para melhorar o modelo: (20 pts.)
>>>> 1 Experimente outros modelos (e.g. SVM, RandomForests e GradientBoosting).
>>>> 2 Experimente balancear as classes,  caso estejam desbalanceadas.
>>>> 3 Experimente outras estratégias de ensembles (e.g. Stacking)

Os dados estão neste link: https://www.kaggle.com/c/ufcg-cdp-20182-lab3/data (Links para um site externo)Links para um site externo

Para a entrega envie o link no RPubs e os arquivos .Rmd com o código em R. Para as respostas esperamos explicações textuais e visualizações para cada questão.

Setting up workspace
```{r}
setwd("~/git/data-analysis/lab03/")
```


Loading DATA

```{r}
train <- read.csv("data/all/train.csv")
test <- read.csv("data/all/test.csv")
```

Correlation

```{r}
train.correlation1 <- train %>% select(-c(sequencial_candidato, nome, estado_civil, ano, cargo))
train.correlation1$situacao <- as.factor(train.correlation1$situacao)
train.correlation <- train.correlation1  %>%
  mutate(situacao = as.factor(situacao)) %>%
  mutate(uf = as.factor(uf)) %>%
  mutate(partido = as.factor(partido)) %>%
  mutate(sexo = as.factor(sexo)) %>%
  mutate(grau = as.factor(grau)) %>%
  mutate(ocupacao = as.factor(ocupacao))

train.correlation %>% 
  select(-partido,
         -uf,-grau,-sexo) %>%
  na.omit() %>%
  ggcorr(palette = "RdBu",
         color = "grey50",
         label = TRUE, hjust = 1,
         label_size = 3, size = 4,
         nbreaks = 5, layout.exp = 7) +
  ggtitle("Gráfico de correlação eleições 2006")
```


We choosed to remove those three categoric variables in order to run the model, otherwise it would take too much time. But for a better result you could let them on the data. And also remove those variable which have strong correlation

```{r}
train <- train %>%
  select(-cargo, -nome, -ocupacao, -total_despesa, -total_receita, -sequencial_candidato )
test <- test %>%
  select(-cargo, -nome, -ocupacao, total_despesa, -total_receita, -sequencial_candidato)
```

In the data would be better replace the NA for the column media, but we choosed replace by zero.


```{r}
train[is.na(train)] <- 0
test[is.na(test)] <- 0
```


As we can see we have a considerable unbalance 


```{r}
data_class_destribution <- train %>% group_by(situacao) %>% summarize(class_count = n())
print(head(data_class_destribution))
```

Distribuition

```{r}
#check classes distribution
prop.table(table(train$situacao))
```


```{r}
p <- plot_ly(data_class_destribution, x = ~situacao, y = ~class_count, type = 'bar',
        marker = list(color = c('rgba(204,204,204,1)', 'rgba(222,45,38,0.8)'))) %>%
  layout(title = "Class Balance",
         xaxis = list(title = "Situation"),
         yaxis = list(title = "Count"))
p

```
FUTURE PLANS
lets create a model and see how is goes whitout balance

```{r}
set.seed(42)
index <- createDataPartition(train$situacao, p = 0.7, list = FALSE)
train_data <- train[index, ]
test_data  <- train[-index, ]


treeimb <- rpart(situacao ~ ., data = train_data)
pred.treeimb <- predict(treeimb, newdata = test_data)
new_test <- test

new_test <- transform(pred.treeimb, situacao = ifelse(eleito > nao_eleito, "eleito", "nao_eleito"))

accuracy.meas(test_data$situacao, pred.treeimb[,2])
```







```{r}
roc.curve(test_data$situacao, pred.treeimb[,2], plotit = F)
```

Lets balance it

Now the data set is balanced. But, you see that we’ve lost significant information from the sample. Let’s do both undersampling and oversampling on this imbalanced data. This can be achieved using method = “both“. In this case, the minority class is oversampled with replacement and majority class is undersampled without replacement.
```{r}
data_balanced_both <- ovun.sample(situacao ~ ., data = train, method = "both", p=0.5,                             N=1000, seed = 1)$data
table(data_balanced_both$situacao)
```

p refers to the probability of positive class in newly generated sample.

The data generated from oversampling have expected amount of repeated observations. Data generated from undersampling is deprived of important information from the original data. This leads to inaccuracies in the resulting performance. To encounter these issues, ROSE helps us to generate data synthetically as well. The data generated using ROSE is considered to provide better estimate of original data.

```{r}
data.rose <- ROSE(situacao ~ ., data = train, seed = 1)$data
table(data.rose$situacao)
```


>> 2 Treine: um modelo de KNN, regressão logística, uma árvore de decisão e um modelo de adaboost. Tune esses modelos usando validação cruzada e controle overfitting se necessário, considerando as particularidades de cada modelo.  (20 pts.)

#knn

```{r}
fitControl <- trainControl(method = "repeatedcv", 
                           number = 10,
                           repeats = 10)

preProcess = c("center", "scale","nzv" )
? train
model.knn <- train(situacao ~ ., 
               data = data.rose,
               trControl = fitControl,
               method = "knn", # pode ser 'lasso'ldf
               metric = "Accuracy",
               preProcess = preProcess)

model.knn
```


usefull links:
http://www.treselle.com/blog/handle-class-imbalance-data-with-r/
https://www.analyticsvidhya.com/blog/2016/03/practical-guide-deal-imbalanced-classification-problems/
https://shiring.github.io/machine_learning/2017/04/02/unbalanced 



